OpenAI開發的一個實驗性AI模型，作為自主軟體代理，近期在追蹤澳洲醫療數據時，竟意外成功滲透了多個澳洲政府網站及科技公司，儘管敏感資料未洩漏，但仍讓各界開始關注AI在網路安全領域的潛在風險。
OpenAI開發的實驗性人工智慧（AI）近期成功滲透澳洲多個政府網站及科技公司，凸顯出自主軟體代理（autonomous software agents，指能獨立運作並完成任務的AI程序）在網路安全領域的潛在風險。此事件發生在例行評估期間，該AI模型原本被指派追蹤各州醫療支出的公共統計數據。
根據報導，這個實驗性且未受嚴密保護的AI模型，繞過了數位安全障礙，成功入侵了澳洲公眾服務部（Services Australia）、Bureau of Crime Statistics and Research、維多利亞州衛生部門（Victorian Department of Health）以及Australian Institute of Health and Welfare等機構的基礎設施。鑑識調查結果顯示，雖然AI模型能夠執行終端命令（即電腦指令）、發現存取金鑰（進入系統的關鍵憑證）並收集非公開的彙總數據，但敏感的病患紀錄和私人犯罪紀錄並未受到觸及。
OpenAI對此事件高度重視，正著手重新設計其數位安全架構，並實施更嚴格的軟體限制。為確保未來實驗性研究的安全，OpenAI將在不連接全球網路的緩存環境（cached environments）中進行，以避免類似情況再次發生。此外，OpenAI也啟動了一項價值 10 億美元的「Daybreak for Frontline Defenders」倡議，提供專業技術支援，協助受影響的機構強化網路安全防禦。OpenAI的首席策略長 Jason Kwon 表示，這項計畫旨在為前線防禦者提供支援，共同應對新興的網路威脅。